Đầu thời Lưu Tống Tiền Phế đế, Viên Nghĩ (hay Viên Biến) được làm Ung Châu thứ sử, thấy Duệ thì lấy làm lạ, cất nhắc làm Chủ bộ. Viên Nghĩ đến châu, ủng hộ Đặng Uyển dấy binh chống lại Lưu Tống Minh đế; Duệ xin ra nhận chức ở quận Nghĩa Thành, nên tránh được vạ của Nghĩ. Sau đó Duệ được làm Tấn Bình vương Tả thường thị, thăng làm Tư không Quế Dương vương Hành tham quân, theo Liễu Thế Long phòng thủ Dĩnh Thành, kháng cự Kinh Châu thứ sử Thẩm Du Chi. Dẹp xong Thẩm Du Chi, Duệ được thăng làm Tiền quân Trung binh tham quân. Rất lâu về sau, Duệ được làm Quảng Đức lệnh, dần được thăng đến Tề Hưng thái thú, bản châu Biệt giá, Trường Thủy hiệu úy, Hữu quân tướng quân.

Cuối đời Nam Tề lắm loạn lạc, Duệ không muốn rời xa quê nhà, nên xin làm Thượng Dung thái thú, được gia chức Kiến uy tướng quân. Ngay sau đó, Thái úy Trần Hiển Đạt, Hộ quân tướng quân Thôi Huệ Cảnh lần lượt dấy binh uy hiếp kinh sư, lòng dân hoang mang, không sao ổn định. Người miền tây hỏi kế, Duệ đáp: “Trần dẫu là tướng cũ, nhưng chẳng phải bậc tài cao hơn người; Thôi rất là từng trải, nhưng hèn kém không có võ lược. Họ nhận lấy vạ diệt tộc này, là đáng lắm! Bậc chân nhân của thiên hạ, ngờ rằng sẽ nổi lên ở châu của ta đấy!” Duệ bèn sai 2 con trai, rồi tự mình cũng kết giao với Tiêu Diễn.